ซาลิมเกิดเมื่อ 8 ตุลาคม พ.ศ. 2427 ที่เมืองโกตากาดัง เกาะสุมาตรา เขาเข้าเป็นสมาชิกพรรคซาเรกัตอิซลัมเมื่อ พ.ศ. 2458 เขาเป็นพวกที่มีแนวคิดสายกลาง เลื่อมใสในนโยบายรวมกลุ่มอิสลาม และการปรับปรุงให้ทัยสมัยกับโลกที่เปลี่ยนแปลงไป เน้นการศึกษาอัลกุรอาน และส่งเสริมสวัสดิการให้แก่คนจน ต่อมาใน พ.ศ. 2464 เขาสนับสนุนให้จกโรอามีโนโต ผู้นำซาเรกัตอิซลัมออกกฎใหม่ ห้ามไม่ให้สมาชิกพรรคเป็นสมาชิกกลุ่มการเมืองอื่น ๆ ทำให้เกิดความแตกแยกภายในพรรคอย่างรุนแรง สมาชิกของพรรคที่นิยมคอมมิวนิสต์ได้แยกออกไปตั้งพรรคของตน

เนื่องจากนโยบายการต่อสู้กับเจ้าอาณานิคมของพรรคคอมมิวนิสต์ได้รับความนิยมจากชาวอินโดนีเซียมากกว่า ความนิยมต่อซาเรกัตอิซลัมจึงลดลง แม้หลังจากที่พรรคคอมมิวนิสต์ถูกปราปรามหลังการปฏิวัติที่ล้มเหลวใน พ.ศ. 2469–2470 ซาเรกัตอิซลัมก็ไม่สามารถขึ้นมาเป็นผู้นำกลุ่มนักการเมืองชาตินิยมได้อีก ซาลิมในฐานะนักชาตินิยมรุ่นเก่าก็มีความเห็นแตกต่างจากนักชาตินิยมรุ่นใหม่ที่ได้รับการศึกษาแบบตะวันตกมาก เขาไม่เห็นด้วยกับการแยกศาสนาออกจากการเมือง และให้ความสำคัญต่อชาตินิยมมากกว่าศาสนาอิสลาม เขาไมเห็นด้วยกับการจัดตั้งสมาคมทางการเมืองแห่งประชาชนอินโดนีเซียของซูการ์โนที่เป็นสมาคมของนักการเมืองชาตินิยมทั้งหมดเพื่อเรียกร้องเอกราช จนซาเรกัตอิซลัมแยกตัวออกมาจากองค์กรนี้ใน พ.ศ. 2473

ต่อมา ใน พ.ศ. 2479 ซาลิมเปลี่ยนความเห็นในการต่อสู้เพื่อเอกราช จึงชักชวนให้ซาเรกัตอิซลัมให้ความร่วมมือกับรัฐบาลอาณานิคมของเนเธอร์แลนด์ แต่ไม่สำเร็จ ซาลิมจึงตั้งกลุ่มของตนเองและให้ความร่วมมือกับรัฐบาล ทำให้เขาถูกขับออกจากพรรค แต่เขาก็ยังได้รับความนิยม เขาได้รับการแต่งตั้งเป็นคณะกรรมการเตรียมการเพื่อให้เอกราชแก่อินโดนีเซีย โดยญี่ปุ่นเมื่อ พ.ศ. 2488 ร่วมกับโมฮัมมัด ฮัตตา และซูการ์โน และร่วมร่างกฎบัตรจาการ์ตา

เมื่อจัดตั้งสาธารณรัฐอินโดนีเซียหลังญี่ปุ่นแพ้สงคราม เขาได้เป็นรัฐมนตรีช่วยว่าการและว่าการกระทรวงการต่างประเทศระหว่าง พ.ศ. 2489–2492 เขาถึงแก่อนิจกรรมเมื่อ 4 พฤศจิกายน พ.ศ. 2497 รวมอายุได้ 70 ปี